中国音乐学院于1964年9月21日正式建院。学院的建立，直接源于周恩来总理的建议，在原中央音乐学院各民族音乐专业、北京市艺术学院音乐系和中国音乐研究所的基础上，从全国选调了一批民族音乐专家共同组建。"文化大革命"期间被并入中央'五七'艺术大学音乐学院。1980年5月，经国务院批准重新恢复建制。学院目前设有音乐学、作曲、民族器乐、声乐歌剧、钢琴、指挥、音乐教育、艺术管理等八个系，另有研究部、社会科学部、成人教育部和附属中等专科学校，形成了有研究生，本、专科教育和继续教育等多层次、多形式的办学体制。学院现有在职正、副教授70人，正、副研究员11人，教学及科研力量雄厚，先后为国家培养了数以千计的毕业生，其中许多人已经成为知名学者、著名艺术家，并有相当数量的毕业生活跃在当今国内艺术舞台上。学院还与亚洲、欧洲、美洲等数十个国家和地区开展友好往来和文化交流活动，培养了相当数量的留学生并同一些国家的艺术院校建立了校际合作关系。
中国音乐学院以马列主义、毛泽东思想、邓小平理论为指导，坚持"教育要面向现代化，面向世界，面向未来"的方针，贯彻江泽民同志"三个代表"的精神，在进一步提高以中国传统音乐教学、科研为主的教学质量及办学水平的同时，积极拓展办学途径，适当扩大办学规模，调整专业设置，深化教育和后勤体制改革，改善办学条件，提高办学效益，使中国音乐学院在不远的将来，成为一所不仅在民族音乐教学、科研方面处于国内领先地位，而且在整体教育水平上也达到国际一流的音乐院校。
我国著名音乐家安波出任中国音乐学院首任院长，著名音乐家马可为副院长兼党委副书记，后改任代院长、代党委书记，此后李凌、杜利、厉声、李西安、樊祖荫、金铁霖等同志先后出任该院院长。目前，张雪任中国音乐学院党委书记；金铁霖任院长；朱卓建、杨静茂任副院长；韩丽萍任院党委副书记。
